Phạm Ngọc Phương sinh tại Thủ Dầu Một, Bình Dương, nguyên quán Hà Tĩnh, đi học trường Aurore tại Sài Gòn. Ông lập nghiệp chuyên hát ca khúc nước ngoài, mê vua nhạc rock Elvis Presley nên ông đã đổi tên mình thành Elvis Phương.

Ông biểu diễn trước công chúng lần đầu vào năm 1962 tại trường dòng Regina Pacis. Bài hát tiếng Việt đầu tiên Elvis Phương biểu diễn là Nửa đêm ngoài phố. Ông tham gia nhiều ban nhạc như Rockin' Stars, Les Vampires... Là một trong những tay khuấy động phong trào nhạc trẻ đầu tiên của Sài Gòn trong ban nhạc Phượng Hoàng lúc ấy còn có Nguyễn Trung Cang, Lê Hựu Hà..., sau này trở thành một ca sĩ có thể hát nhiều thể loại từ rock, pop, trữ tình cho đến ca khúc trữ tình quê hương.

Elvis Phương thâu âm rất nhiều các bài hát nổi tiếng, gắn liền với tên tuổi của ông phải kể đến: Vết thù trên lưng ngựa hoang (Phạm Duy), Đàn bà (Song Ngọc), Mười năm tình cũ, Mười năm yêu em (Trầm Tử Thiêng), Áo anh sứt chỉ đường tà (Phạm Duy), Bài thánh ca buồn (Nguyễn Vũ), Xé thư tình (Trương Hoàng Xuân), Cô hàng cà phê (Canh Thân), Trả lại em yêu (Phạm Duy) và tất nhiên là các ca khúc Phượng Hoàng. Các bản nhạc trữ tình của Nguyễn Trung Cang, Lê Hựu Hà như: Còn yêu em mãi, Yêu em, Tôi muốn...

Elvis Phương thường xuyên trình bày các tác phẩm của Nguyễn Ánh 9: Không, Cô đơn, Buồn ơi chào mi, Tình khúc chiều mưa; Vũ Thành An: Bài không tên số 5, Bài không tên cuối cùng; Trịnh Công Sơn: Chiều một mình qua phố; Lam Phương: Duyên kiếp (tên 1 album của ông), Cỏ úa; Nguyễn Văn Tý: Dư âm; Ngô Thụy Miên: Áo lụa Hà Đông, Paris có gì lạ không em...

Ông còn nổi tiếng với tài huýt sáo (Vết thù trên lưng ngựa hoang)

Ông có nhiều kết hợp với các ca sĩ nữ trên sân khấu, đặc sắc nhất gồm Ái Vân (cả nhạc trẻ và nhạc cảnh quê hương),Thanh Lan (các ca khúc ngoại quốc).

Trong đêm nhạc Sol Vàng với chủ đề Bước tình hồng diễn ra vào tối 8/10/2016, Elvis Phương bây giờ 71 tuổi đã hát 10 ca khúc như Tôi muốn, Yêu em, Thương nhau ngày mưa, Anh vẫn biết…, nhằm vinh danh cố nhạc sĩ Nguyễn Trung Cang và Lê Hựu Hà trong ban nhạc Phượng Hoàng.[1]